# Local LLM

在本地 M 系列 Mac 上用 Ollama + Llama 3.3 70B 每小时生成 100 条付费社媒广告变体，再用一轮 prompt 给每条按 hook / 价值清晰度 / CTA 具体度打 0-100 分。完整的两段 prompt、Python 脚本、以及让 $0 边际成本在任何团队规模下都跑赢 GPT-4o 的算账。

在 Apple Silicon (M 系列芯片) 上用 Ollama + Mistral 7B / Llama 3.1 8B 搭建本地邮件分流层:6 周、8,400 封邮件实测,4 桶分类,准确率 92%,每周省 2.3 小时,邮件全程不出本机。

我把同一份广告文案 brief 分别喂给本地部署的 Mistral Small 24B 和 GPT-4o,让一位没见过两份输出的营销人盲评。本文给出完整搭建路径——笔记本用 Ollama、单卡 4090 服务器用 vLLM、我用的 prompt 模板,以及最终让我决定哪个上生产的每 token 成本算式。

一份实操指南：在笔记本上用 Ollama 跑 SmolLM 1.7B 改写营销内容——零 API 费用、完全私有化、对日常文案质量意外地好。